مبادئ سانتا كلارا

في مايو 2018، اجتمع تحالف من المنظمات والمدافعين\ات والأكاديميين/ات معًا لإنشاء مبادئ سانتا كلارا للشفافية والمساءلة حول الإشراف على المحتوى استجابةً للمخاوف المتزايدة بشأن الافتقار إلى الشفافية والمساءلة في منصات الإنترنت حول كيفية إنشائها وإنفاذها سياسات الإشراف على المحتوى. تحدد المبادئ المعايير الدنيا التي يجب أن تلبيها المنصات التقنية من أجل توفير شفافية مساءلة الكافية حول جهودها لإزالة المحتوى الذي ينشئه المستخدمون أو تعليق الحسابات التي تنتهك قواعدهم.

تركز المجموعة الأصلية من المبادئ على ثلاثة مطالب رئيسية - أرقام شاملة توضح بالتفصيل جهود الإشراف على محتوى المنصات، وإشعار واضح للمستخدمين/ات المتأثرين/ات ، وعملية استئناف قوية. تتماشى المباديء مع عمل ديفيد كاي، المقرر الخاص السابق للأمم المتحدة المعني بتعزيز الحق في حرية التعبير والرأي، والذي دعا إلى “إطار عمل لضبط المحتوى عبر الإنترنت الذي ينشئه المستخدمون\ات ويضع حقوق الإنسان في الصدارة”. كما تعكس المبادئ أيضًا توصيات مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي توضح مسؤوليات الشركات في مجال حقوق الإنسان.

عندما تم إصدار المبادئ لأول مرة، كان هناك القليل من الشفافية حول نطاق وحجم وتأثير جهود الإشراف على محتوى منصة الإنترنت. ونتيجة لذلك، دعا مؤلفو/ات المبادئ الشركات إلى الكشف عن المزيد من البيانات حول جهود الاشراف هذه من خلال تقارير الشفافية. ساعدت تقارير الشفافية هذه في تسليط الضوء على الرقابة الحكومية على المنصات، ومكنت المستخدمين\ات من اتخاذ قرارات أكثر استنارة حول المنتجات التي يجب استخدامها وتجنبها، وتمكين مجموعات الدفاع لدفع الشركات إلى اتباع الإجراءات القانونية المعمول بها عند الاستجابة والامتثال لمطالب الحكومة. بالإضافة إلى ذلك، لاحظ مؤلفو/ات المبادئ أن الإشراف على المحتوى يحدث غالبًا بطريقة تنازلية، مما يترك للمستخدمين\ات خيارات قليلة للانتصاف والتعويض. سعت مبادئ “الإشعار” و"الاستئناف" إلى إنشاء آليات قوية وشفافة وموثوقة للإجراءات القانونية الواجبة للمستخدمين/ات

منذ إطلاقها، أيدت العديد من منصات الإنترنت المبادئ والتزمت بها. تشمل هذه الأنظمة الأساسية أبل وفيسبوك وجيت هاب وجوجل وانستغرام ولينكد إن وميديوم وريديت وسناب وتمبلر وتويتر ويوتيوب. في حين أن بعض هذه المنصات قد خطت خطوات ملحوظة في توفير مزيد من الشفافية حول جهود الإشراف على المحتوى، إلا أن عددًا قليلاً جدًا من الشركات قد استوفت المطالب الموضحة في المبادئ. يجب أن تبذل المنصات مزيدًا من الجهد لتلبية هذه التوقعات الأساسية للشفافية والمساءلة.

أطلق ائتلاف مبادئ سانتا كلارا وهو مجموعة مؤلفة من __ منظمات، مجموعة محدثة من المبادئ من أجل تعزيز شفافية ومسائلة المنصات.

في حين أن مبادئ 2018 الأصلية حددت معايير أساسية قوية للغاية يجب على الشركات الامتثال لها، فإن المشاركة في إنشائها اقتصرت على عدد قليل من المجموعات والأفراد، وأثار الحلفاء - لا سيما من دول الجنوب العالمي - مخاوف واقتراحات مشروعة لمراجعتها. على وجه الخصوص، أكد أصحاب المصلحة من جميع أنحاء العالم أن المنصات تستثمر المزيد من الموارد في توفير الشفافية والإجراءات القانونية الواجبة للمستخدمين/ات في مجتمعات وأسواق معينة. يجب على الشركات معالجة هذا الظلم والتأكد من أن جميع مستخدميها - بغض النظر عن المكان الذي يعيشون فيه – يمكنهم/ن الحصول على الشفافية والمساءلة من هذه الشركات. وهو أمر مهم نظرًا لأن العديد من الأضرار التي تحدث نتيجة ممارسات الإشراف على محتوى النظام الأساسي تحدث في المجتمعات التي تتجاهلها المنصات.

لقد تغير مشهد تعديل المحتوى بشكل جذري خلال السنوات القليلة الماضية. لم تعد المنصات تتعامل مع المحتوى الضار والحسابات بمجرد إزالتها. اليوم، تعتمد العديد من الخدمات أيضًا على أدوات خوارزمية لتنظيم المحتوى من خلال تدخلات مثل خفض الترتيب. هناك نقص خطير في الشفافية والمساءلة حول كيفية قيام المنصات بنشر هذه التدخلات وما هي آثار ع ذلك على حرية التعبير. بالإضافة إلى ذلك، شدد الباحثون/ات والمدافعين/ات على النتيجة التمييزية والضارة التي يمكن أن تنجم عن المحتوى المدفوع عبر الإنترنت. يوجد حاليًا أيضًا نقص كبير في الشفافية حول كيفية تعديل هذا المحتوى وما هي التأثيرات. هذه مجالات إضافية يجب أن تلتزم المنصات بإلقاء الضوء عليها.

أخيرًا، أثناء جائحة كوفيد 19، أعلنت العديد من المنصات أنها ستزيد من اعتمادها على الأدوات الآلية لأغراض الإشراف على المحتوى. أعلنت بعض الخدمات أيضًا أنها ستعلق عمليات الاستئناف الخاصة بها، مما يعيق وصول المستخدمين إلى الإجراءات القانونية الواجبة. أعربت العديد من منظمات المجتمع المدني عن مخاوفها بشأن كيفية تأثير هذه القرارات على حرية التعبير عبر الإنترنت، مؤكدة أن المنصات يجب أن تكون قادرة على الحفاظ على مستوى أساسي من الشفافية والمساءلة في جميع الأوقات.

بسبب هذه المخاوف الثلاثة، أطلق تحالف مبادئ سانتا كلارا دعوة مفتوحة للتعليقات من مجموعة واسعة من أصحاب المصلحة العالميين/ات ، بهدف توسيع المبادئ في نهاية المطاف. شارك التحالف في توعية جماهيرية ومجتمعية كبيرة عبر فترة تعليق مفتوحة واستراتيجية توعية تكميلية مستهدفة، ثم راجع المدخلات خلال فترة محددة، وأخيراً، صاغ مجموعة جديدة من المبادئ. وعقدت سلسلة من المشاورات المفتوحة وورش العمل لإضافة مزيد من التفاصيل إلى مجموعة المبادئ الأصلية.